Trước khi vụ nổ xảy ra, các nhân chứng cho biết một người đàn ông dùng đèn khò cưa một vật thể có hình dáng giống bình oxy hoặc bình nén khí,[9][10] một số mảnh vỡ tại hiện trường được cho là bom.[9] Vật thể gây ra vụ nổ là một khối kim loại hình trụ tròn, đường kính 40–50 cm, chiều dài 80 cm, trọng lượng khoảng 100 kg; người đàn ông gây ra vụ nổ được xác nhận là chủ cửa hàng phế liệu Phạm Văn Cường.[1][7][10][15] Hai đầu vật thể bằng phẳng và có nhiều ốc nhỏ nhô ra, thân giữa có hai đai sắt hình vuông nhô ra.[7]

Theo tiến sĩ Nguyễn Trường Luyện tại Trường Đại học Bách khoa Hà Nội, nguyên nhân có thể là "khí gas được nén với áp suất lớn" nếu là "vật liệu nổ dạng khí", hoặc "quá trình cháy đột ngột" nếu "vật liệu nổ dạng rắn" tiếp xúc với lửa hoặc nhiệt độ rất cao.[57] Chủ tịch Hội Hỗ trợ khắc phục hậu quả bom mìn Nguyễn Đức Soát nhận định vật liệu nổ có thể là bom đã tháo ngòi nổ, nhưng khi dùng đèn khò để cắt thì nhiệt lượng lên rất cao và gây nổ.[58] Cựu Phó viện trưởng Viện khoa học hình sự Nguyễn Mạnh Hùng giả thiết nguyên nhân do "cưa bình chứa khí nổ cháy".[59]

Khoảng 18 giờ cùng ngày, Trưởng công an quận Hà Đông Vương Tiến Dũng cho biết không phải nổ bình gas, đồng thời xác nhận nguyên nhân từ một vật liệu nổ.[17][19] Công an thành phố Hà Nội và Bộ Tư lệnh Thủ đô Hà Nội thu giữ nhiều mảnh gang và thép tại hiện trường, Trưởng phòng Cảnh sát điều tra tội phạm về trật tự xã hội (PC 45, thuộc Công an thành phố Hà Nội) Dương Văn Giáp xác nhận vật liệu dùng để chế tạo bom.[6][25] Theo giám định của Cục Kỹ thuật hình sự thuộc Bộ Công an, thuốc nổ gây ra vụ nổ thường dùng để chế tạo bom.[1][2][6][60]

Ngày 23 tháng 3, Chủ nhiệm Kỹ thuật Trung tâm Công nghệ xử lý bom mìn (Bộ Tư lệnh Công binh) Đoàn Văn Vững cho rằng vật liệu nổ có thể là khoang chiến đấu của một tên lửa, ngư lôi hoặc thủy lôi.[61] Ngày hôm sau, Phó giám đốc Trung tâm Công nghệ xử lý bom mìn Nghiêm Đình Thiện cho rằng vật liệu nổ là thủy lôi dựa theo lời kể của các nhân chứng.[62] Ngày 13 tháng 4, Giám đốc Sở Cảnh sát Phòng cháy chữa cháy thành phố Hà Nội Hoàng Quốc Định xác nhận nguyên nhân do vật liệu nổ quân dụng, nhưng chưa xác định là bom hay ngư lôi; đồng thời khẳng định chính quyền địa phương chịu trách nhiệm quản lý địa điểm buôn bán phế liệu.[63][64]